Từ năm 1957 đến 1974 ông chuyển sang ngành ngoại giao, được Đảng và Nhà nước tín nhiệm cử giữ các chức vụ Đại sứ đặc mệnh toàn quyền Việt Nam thứ hai tại Liên Xô trong thời gian 10 năm từ năm 1957 đến năm 1967,[4](đại sứ Việt Nam tại Liên Xô đầu tiên là ông Nguyễn Lương Bằng, người kế nhiệm là ông Nguyễn Thọ Chân) và Rumani, Anbani, phụ trách Ủy ban đoàn kết Á - Phi và Mỹ Latinh.

Năm 1957 ông được bầu làm Chủ tịch danh dự Hội Quốc tế ngữ bảo vệ hòa bình Việt Nam. Hội Quốc tế ngữ Bảo vệ Hòa bình – tiền thân của Hội Quốc tế ngữ Esperanto Việt Nam thành lập ngày 21-1-1957 với tên đầy đủ là "Hội Quốc tế ngữ Bảo vệ Hòa bình Việt Nam" (VPEA: Vjetnama Pacdefenda Esperantista Asocio).[5]

Khi về nước ông làm Phó Ban Đối ngoại Trung ương Đảng Cộng sản Việt Nam, Bí thư Đảng Đoàn Các tổ chức đoàn kết và hữu nghị.

Từ 1974 – 1978, ông là Chủ tịch và từ 1980 – 1981, là Phó Chủ tịch Ban Chấp hành Trung ương Hội hữu nghị Việt Nam – Liên Xô.

Do bị bệnh nặng ông mất ngày 26/10/1981 tại Liên Xô, thọ 65 tuổi. Thi hài ông sau đó được chuyển về nước và an táng tại Nghĩa trang liệt sĩ Mai Dịch, huyện Từ Liêm, thành phố Hà Nội.[5]